Causa legale contro il produttore dell'app "nudify" presentata da Metafile

Giovedì Meta ha dichiarato di voler fare causa a un produttore di app che utilizza l'intelligenza artificiale per simulare immagini di nudo di persone reali che appaiono vestite nelle foto.

Meta ha dichiarato di aver intentato una causa a Hong Kong contro Joy Timeline HK Limited, l'entità dietro l'app CrushAI, per impedirle di pubblicizzare le app CrushAI sulle piattaforme Meta.

"Questa azione legale sottolinea sia la serietà con cui affrontiamo questo abuso sia il nostro impegno a fare tutto il possibile per proteggere la nostra comunità", ha dichiarato Meta in una nota. "Continueremo ad adottare le misure necessarie, che potrebbero includere azioni legali, contro coloro che abusano delle nostre piattaforme in questo modo".

Secondo Meta, l'azione legale è stata intrapresa dopo che Joy Timeline ha effettuato "diversi tentativi" di eludere il processo di revisione degli annunci pubblicitari.

Pubblicità di cosiddette app per nudificare sono apparse sulle piattaforme Facebook e Instagram di Meta, nonostante violino le politiche pubblicitarie dei social media. CrushAI, che produce le app, ha promosso strumenti di intelligenza artificiale che, a suo dire, consentono agli utenti di caricare foto e "vedere chiunque nudo", secondo un'indagine di CBS News .

Meta ha affermato che l'azienda vieta "immagini intime non consensuali" sulle sue piattaforme. L'azienda ha precedentemente dichiarato a CBS News di aver rimosso gli annunci pubblicitari per la tecnologia nudify, cancellato le pagine sulle sue piattaforme che pubblicavano gli spot e bloccato definitivamente i siti web associati alle app.

Meta ha dichiarato giovedì che condividerà informazioni, inclusi gli URL degli annunci pubblicitari, su entità che violano le sue policy con altre aziende tecnologiche attraverso il programma Lantern della Tech Coalition, che monitora i comportamenti che violano le loro norme sulla sicurezza dei minori. Da marzo, Meta ha fornito al programma informazioni su oltre 3.800 siti, che vengono condivise con altre aziende tecnologiche, secondo l'azienda stessa.

Meta ha affermato che gli inserzionisti di app per nudità utilizzano vari metodi per eludere il rilevamento sulle sue piattaforme, tra cui l'utilizzo di immagini inoffensive per cercare di aggirare la tecnologia utilizzata per identificare tali annunci sui suoi siti. Di conseguenza, Meta ha sviluppato una tecnologia migliore per rilevare gli annunci di app per nudità presentati come innocui, ha dichiarato giovedì.

"Abbiamo collaborato con esperti esterni e con i nostri team di specialisti per ampliare l'elenco di termini, frasi ed emoji relativi alla sicurezza che i nostri sistemi sono addestrati a rilevare in questi annunci", ha affermato Meta.

Emmet Lyons ha contribuito a questo rapporto.